Ô Khâu nguyên là nơi các ngư dân ven biển Phúc Kiến tạm thời trú lại trong một thời gian ngắn khi đánh bắt cá và khi tránh gió bão trên biển. Sau đó, dần dần có ngư dân cư trú theo mùa trên các đảo trong mùa xuân và mùa thu- khi họ đánh bắt được lượng cá phong phú nhất, số người cư trú trên các đảo từng lên tới 1.000 người.

Trong khoảng từ năm Đồng Trị thứ 11 (1872) đến năm Quang Tự thứ 1 (1875) thời nhà Thanh, một hải đăng đã được xây trên đảo Tiểu Khâu.

Năm 1949, chính phủ Trung Hoa Dân Quốc triệt thoái đến Đài Loan, một đội du kích dời đến Ô Khâu. Năm 1952, sau khi được Hoa Kỳ cấp viện trợ quân sự, đội du kích mới được chỉnh biên thành "Phản Cộng cứu Quốc quân", sau đó một số quân nhân phục viên đã lựa chọn ở lại Ô Khâu sinh sống. Năm 1954, "công sở hương Ô Khâu" được thiết lập, Bộ Quốc phòng đã ban bố mệnh lệnh về việc hương Ô Khâu tạm thời do chính quyền huyện Kim Môn "đại quản".

Ngày 13 tháng 11 năm 1965, hai quân hạm Sơn Hải và Lâm Hoài của Trung Hoa Dân Quốc từ Mã Công ở Bành Hồ hướng về Ô Khâu tiếp viện, khi đến vùng biển cách Ô Khâu 10 hải lý về phía nam đã gặp phải đội tàu với 12 tàu chiến (4 tàu ngư lôi, 7 tàu pháo) của Cộng hòa Nhân dân Trung Hoa, hai bên đã tiến hành giao hỏa. Sang ngày hôm sau, tức ngày 14 tháng 11, Lâm Hoài hạm trước sau hai lần bị trúng ngư lôi rồi chìm; Sơn Hải hạm tiếp tục tác chiến, hai bên kết thúc xung đột khi gần đến chỗ neo tàu Ô Khâu, cuộc chiến này được gọi là Hải chiến Ô Khâu (烏坵海戰), phía Trung Hoa Dân Quốc đã có 16 lính tử trận và 67 lính mất tích.[2]

Ngày 7 tháng 5 năm 2002, đã đưa vào hoạt động tàu thuyền đi lại trực tiếp giữa Ô Khâu với đảo Mi Châu của thành phố Phủ Điền ở đại lục. Cùng năm, ủy viên lập pháp Kim Môn Ngô Thành Điển đã biểu đạt rằng huyện Kim Môn không mong muốn "đại quản" Ô Khâu, đề nghị thăng Ô Khâu làm huyện riêng. Bộ Nội chính THDQ đã gửi công văn cho huyện Đài Trung về ý nguyện tiếp quản Ô Khâu, đồng thời chỉ ra rằng, so với Kim Môn thì kì thực về mặt địa lý và giao thông đối với Ô Khâu, giao cho huyện Đài Trung quản lý là thích hợp hơn, và lại ngân sách của huyện Đài Trung dồi dào hơn của huyện Kim Môn, có khả năng rõ rệt trong việc "đại quản" Ô Khâu. Tuy nhiên, việc này cuối cùng đã không có kết quả.